ゼロから作るDeep Learning ❷
―自然言語処理編
https://www.oreilly.co.jp/books/9784873118369/
第2弾の本書では、自然言語処理や時系列データ処理に焦点を当て、ディープラーニングを使ってさまざまな問題に挑みます。
word2vecやRNN(リカレントニューラルネットワーク)、LSTMやGRU、seq2seqやAttention……
https://github.com/oreilly-japan/deep-learning-from-scratch-2
5章 リカレントニューラルネットワーク(RNN)
5.1 確率と言語モデル
8章 Attention
8.5.2 Transformer